Riemann studierte ab 1868 in Berlin und Tübingen zunächst Jura. Nach seiner Teilnahme am deutsch-französischen Krieg (1870/71) entschied er sich ausschließlich für die Musik und studierte am Konservatorium und an der Universität in Leipzig unter anderem bei Ernst Friedrich Richter, Carl Reinecke und Oskar Paul . Weil Leipzig seine Promotionsarbeit "Über das musikalische Hören" nicht annehmen wollte, promovierte Riemann damit in Göttingen. Dann habilitierte er sich 1878 doch noch an der Universität in Leipzig mit den "Studien zur Geschichte der Notenschrift". Ab 1874 wirkte Hugo Riemann als Klavierlehrer und Dirigent in Bielefeld, wo er 1876 Elisabeth Bertelsmann heiratete.

Im Jahre 1880 übernahm Riemann als Dirigent den gemischten Chor-Verein in Bromberg und war gleichzeitig Privatdozent in Leipzig (1878-1880). Des weiteren wirkte er als Theorielehrer an den Konservatorien in Hamburg (1880-1891), Sondershausen (1890) und Wiesbaden (1890-1895). 1895 wurde er zu dem außerordentlichen, 1905 zu dem planmäßigen Professer an der Universität Leipzig berufen. Schließlich wurde er 1908 Direktor des von ihm gegründeten "Collegium musicum" am musikwissenschaftlichen Institut. 1911 wurde Riemann in Leipzig Honorarprofessor und schließlich 1914 Direktor des von ihm gegründeten "Staatlich sächsischen Forschungsinstituts für Musikwissenschaft".

Hugo Riemann gehört zu den markantesten und bedeutendsten Persönlichkeiten unter den Musikwissenschaftlern. Seine größten Verdienste hat er errungen auf dem Gebiet der Musiktheorie, die er von Grund auf erneuerte. Obwohl für ihn selbst insgeheim der Wiener klassische Stil die Grundlage der Musik war, war er trotzdem dem Neuen aufgeschlossen. Er sah in allem Neuen mit seinen eigenen Theorien zur Harmonik und Metrik, dass hier alles auf Erkenntnissen der phänomenologischen Psychologie seiner Zeit beruhte. Auch auf dem Gebiet der Musikgeschichte war er wegweisend, gab er ihr doch in umfassender Weise ihre stilkundliche Orientierung.

Zu fast allen Bereichen der Musikwissenschaften hat er wesentliche Beiträge gliefert. So sind insbesondere zu bezeichnen:

• Neue Methoden der Harmonielehre (1880);
• Das Problem des harmonischen Dualismus (1905);
• Neue Schule der Methodik (1803)
• Lehrbuch des Kontrapunkts (1921)
• Große Kompositionslehre, 3 Bände (1902 bis 1913)
• System der musikalischen Rhythmik und Metrik (1903)
• Musikalische Dynamik und Agogik (1884)
• Handbuch der Musikgeschichte, 5 Bände (1901 bis 1913)
• Geschichte der Musik seit Beethoven (1901)
• Geschichte der Musiktheorie (1898)
• Musiklexikon (1882, 12 Auflage begonnen 1939)

Dieses letztere Musiklexikon (Der Riemann), Riemanns wohl bekanntestes Werk, hat bis heute seinen herausragenden Platz behalten. Die von Riemann entwickelte Theorie der "Funktionen" ist noch heute in der Harmonielehre zu finden, die an deutschen musikalischen Ausbildungsstätten gelehrt wird. Viele musikalische Fachbegriffe in seinen Abhandlungen gehören heute zu dem fachlichen Sprachschatz, wie zu dem Beispiel "Agogik", "Motiv" oder "Phrasierung".

Zu Hugo Riemanns Schülern zählen die Komponisten Max Reger (1873-1916) und Hans Pfitzner (1869-1949), sowie die Musikwissenschaftler Friedrich Blume , Hans Joachim Moser , Willibald Gurlitt , Gustav Becking und Rudolf Steglich .